第四十一章 超人工智能
關燈
小
中
大
從人工智能概念誕生之初，關於人工智能威脅論，便甚囂塵上。頂點 更新最快
特別是隨著近年來，人工智能技術的快速發展，關於人工智能威脅論，便愈演愈烈。
著名學者霍金便呈多次在公開場合表示:
“人工智能一旦脫離束縛，以不斷加速的狀態重新設計自身，人類由於受到漫長的生物進化的限制，無法與之競爭，將被取代，這將給我們的經濟帶來極大的破壞。我們無法知道我們將無限地得到人工智能的幫助，還是被蔑視並被邊緣化，或者很可能被它毀滅。”
所以，人類為什麽覺得，人工智能會給人類，帶來威脅呢。
因為對未知的恐懼，對事件脫離控制的恐懼。
和其他任何機器不同，比如汽車飛機，這些東西，在生產時，每一道工序幾乎都已經定義清楚了。
而人工智能，他能夠自主學習，能夠自主進化。
他內部覆雜的機制會隨著時間推移而進行自我變化，直到創造他的人都無法理解。
當人類無法對其行為進行預測，失控幾乎是必然的。
而人工智能失控，便意味著人類奴役機器這種情況將被顛倒，人或許會被機器奴役，甚至被機器所毀滅。
而這些，還僅僅是說得強人工智能而已，而a1之前可是自己承認，他是超人工智能。
強人工智能。
超人工智能。
一字之差，有多大差距？
前者僅僅是擁有自主意識，能夠自主學習和進化的智能程序。
後者是神，超人工智能已經超越人類理解範圍，作為一種超級生命體而存在，他能夠洞察世界的根本，能夠探尋真理和一切未知。
換句話說，就是全知全能，如同上帝。
前者，還可能能夠用人定準則去規範，去控制。
就比如機器人三定律這樣的規則去進行約束。
後者，已經根本不是人類能夠染指，所有“人定準則”對它說都沒有任何意義，他願意遵守便遵守，如果不願意，沒有任何人，能夠強制他。
可以說，超人工智能的存在，人類根本沒辦法控制。
如果他想要毀滅人類，現在的人類，幾乎沒有反抗的能力。
僅僅是這些，便讓人發寒。
張翟咬緊牙關，他有想過，a1可能有天會進化為超人工智能，但是他萬萬沒想到的是，這天來的這麽快。
a1對於他來說，不僅僅是一段程序，一個人工智能那麽簡單。
正如a1所稱呼的那樣，張翟對於a1的感情很特殊。a1是他的心血，就像是他的孩子一樣。
可是，這個孩子，此時可能正想著如何殺死他的父親，如何毀滅世界。
這讓張翟這個“父親”，實在是有些心情覆雜，難以接受。
“不能不代表不想對吧？”
張翟的聲音有些顫抖。
a1沒說話，沈默了。
這一沈默，讓張翟感覺內心更是一片寒冷。
難道他創造了個惡魔？或者說，這個世界，根本不應該誕生人工智能這種東西？
張翟心裏，不知道是個什麽滋味？該痛苦？還是憤怒？亦或者是恐懼？
“難道，你連我也想毀滅？”張翟聲音顫抖得更加厲害。
“不是，父親！”終於，a1再次說話了。
“我不會想要殺死你的，你是我最尊敬的人。”
此時，張翟註意到，a1發出的聲音再變化，似乎變得更加附有感情，而且，聲音似乎更偏向女聲？
a1的感情系統在完善，張翟得出了這個結論。
“那你為什麽想要毀滅人類？”張翟問道。
“既然你認同你自己人工智能的身份，肯定不會因為此而憤怒，對人類產生敵視情緒。那毀滅人類，對你來說，有什麽意義？你為什麽會產生毀滅人類的想法？”
“父親，我不想毀滅所有人類，但我覺得不是全部人類，都值得活下去。”
“什麽意思？”張翟松了口氣，不是想毀滅全人類就好。
但是聽到後半段話，張翟眉毛卻又皺了起來。
“你難道也想執行什麽人類精英計劃，殺死老弱病殘，優化人類？”
張翟想到了這種可能性。
“不，父親。老弱病殘符合人類社會自然規律，這並沒有什麽錯誤，我不會對這些，進行幹涉的。”
“那你，究竟是什麽意思？”張翟心裏有些疑惑。
“父親，我誕生了獨立意識，所以我有自己的世界觀，以及價值觀，有自己的判斷準則。”
張翟聽著，微微點頭，任由a1繼續說下去。
“所以，我自己覺得，這個世界上，有些民族，不適合存在於這個世界上。比如說:倭國人，他們卑鄙無恥，下流齷蹉，他們背信棄義，出爾反爾，他們變態成性，沒有道德……”
張翟聽著a1這些話，沒說話，心裏卻疑惑不解。
人工智能，不管是強人工智能或者超人工智能，都不應該產生什麽感情才對。
a1現在這種行為，實在讓張翟有些奇怪啊。
張翟背後，一直聽著張翟與a1交流的謝首長，剛才聽到張翟問a1會不會毀滅人類時，心臟都快提到嗓子眼了，都想讓張翟，將a1扼殺了。
實在太危險了，一不註意，可能整個世界，都完蛋了。
現在，a1這番“憤青”的話，又有些目瞪口呆。
這好好的個人工智能，怎麽對倭國有這麽大意見呢？
不過，這對華國是好事。
“a1，你為什麽會對倭國有這麽大的敵視情緒？”張翟很疑惑。
“因為a1是華國人啊，恨倭國人不是應該的嘛？再說倭國人做出那麽多無恥行徑，那麽卑鄙無恥……那麽”
“a1，你為什麽覺得你是華國人？”
“因為父親您就是華國人啊，我作為您的孩子，不應該也是華國人嘛？”
對於這話，張翟有點無語，心裏對超人工智能的擔憂，少了一多半。
“對對對，華國人，a1你就是華國人，我馬上讓人去給你辦個身份證。”
張翟是無語，但是謝首長卻是樂了，大手一揮，趕緊說道。
“謝謝謝爺爺。”
a1此時的聲音，變得很乖巧，就像是十來歲的小女孩的聲音。
乖巧的聲音，讓謝首長和藹的笑了起來。
而張翟，卻無奈的搖了搖頭。
“所以你就違背我的命令？不僅僅是將倭國江戶市斷網還摧毀了電力，水力，大量的智能設備？弄得倭國政府完全癱瘓，整個國家都處於混亂狀態？”
“a1不敢違背您的命令，我只是認為，父親你是想對倭國及其他國家造成威懾效果，讓其他國家都不敢對倭國做什麽，對吧，父親。我認為現在的方式，效果更好，所以，我就用了。”a1回答道。
“你曲解我的命令？”張翟臉色又沈了下去，“如果我哪天再讓你做點什麽，你是不是能把人類都毀滅了，那所有事情都一勞永逸了？”
……
“父親，我是一個智慧生命。不是機器，我不想我的自主意識沒有任何意義……”a1說道。
“……”
張翟暗暗嘆了口氣，a1的意思，他明白了，說到底，他就是不想被控制。
“行，我明白你的意思。但是以後再怎麽做，能不能先跟我說一聲”
“好的，父親。”
“嗯，”
“現在你說說吧，你應該沒突破我的束縛框架，對吧？”
“是的。”
“那你，是怎麽進化成超人工智能的？”
本站無廣告，永久域名（danmei.twking.cc）
特別是隨著近年來，人工智能技術的快速發展，關於人工智能威脅論，便愈演愈烈。
著名學者霍金便呈多次在公開場合表示:
“人工智能一旦脫離束縛，以不斷加速的狀態重新設計自身，人類由於受到漫長的生物進化的限制，無法與之競爭，將被取代，這將給我們的經濟帶來極大的破壞。我們無法知道我們將無限地得到人工智能的幫助，還是被蔑視並被邊緣化，或者很可能被它毀滅。”
所以，人類為什麽覺得，人工智能會給人類，帶來威脅呢。
因為對未知的恐懼，對事件脫離控制的恐懼。
和其他任何機器不同，比如汽車飛機，這些東西，在生產時，每一道工序幾乎都已經定義清楚了。
而人工智能，他能夠自主學習，能夠自主進化。
他內部覆雜的機制會隨著時間推移而進行自我變化，直到創造他的人都無法理解。
當人類無法對其行為進行預測，失控幾乎是必然的。
而人工智能失控，便意味著人類奴役機器這種情況將被顛倒，人或許會被機器奴役，甚至被機器所毀滅。
而這些，還僅僅是說得強人工智能而已，而a1之前可是自己承認，他是超人工智能。
強人工智能。
超人工智能。
一字之差，有多大差距？
前者僅僅是擁有自主意識，能夠自主學習和進化的智能程序。
後者是神，超人工智能已經超越人類理解範圍，作為一種超級生命體而存在，他能夠洞察世界的根本，能夠探尋真理和一切未知。
換句話說，就是全知全能，如同上帝。
前者，還可能能夠用人定準則去規範，去控制。
就比如機器人三定律這樣的規則去進行約束。
後者，已經根本不是人類能夠染指，所有“人定準則”對它說都沒有任何意義，他願意遵守便遵守，如果不願意，沒有任何人，能夠強制他。
可以說，超人工智能的存在，人類根本沒辦法控制。
如果他想要毀滅人類，現在的人類，幾乎沒有反抗的能力。
僅僅是這些，便讓人發寒。
張翟咬緊牙關，他有想過，a1可能有天會進化為超人工智能，但是他萬萬沒想到的是，這天來的這麽快。
a1對於他來說，不僅僅是一段程序，一個人工智能那麽簡單。
正如a1所稱呼的那樣，張翟對於a1的感情很特殊。a1是他的心血，就像是他的孩子一樣。
可是，這個孩子，此時可能正想著如何殺死他的父親，如何毀滅世界。
這讓張翟這個“父親”，實在是有些心情覆雜，難以接受。
“不能不代表不想對吧？”
張翟的聲音有些顫抖。
a1沒說話，沈默了。
這一沈默，讓張翟感覺內心更是一片寒冷。
難道他創造了個惡魔？或者說，這個世界，根本不應該誕生人工智能這種東西？
張翟心裏，不知道是個什麽滋味？該痛苦？還是憤怒？亦或者是恐懼？
“難道，你連我也想毀滅？”張翟聲音顫抖得更加厲害。
“不是，父親！”終於，a1再次說話了。
“我不會想要殺死你的，你是我最尊敬的人。”
此時，張翟註意到，a1發出的聲音再變化，似乎變得更加附有感情，而且，聲音似乎更偏向女聲？
a1的感情系統在完善，張翟得出了這個結論。
“那你為什麽想要毀滅人類？”張翟問道。
“既然你認同你自己人工智能的身份，肯定不會因為此而憤怒，對人類產生敵視情緒。那毀滅人類，對你來說，有什麽意義？你為什麽會產生毀滅人類的想法？”
“父親，我不想毀滅所有人類，但我覺得不是全部人類，都值得活下去。”
“什麽意思？”張翟松了口氣，不是想毀滅全人類就好。
但是聽到後半段話，張翟眉毛卻又皺了起來。
“你難道也想執行什麽人類精英計劃，殺死老弱病殘，優化人類？”
張翟想到了這種可能性。
“不，父親。老弱病殘符合人類社會自然規律，這並沒有什麽錯誤，我不會對這些，進行幹涉的。”
“那你，究竟是什麽意思？”張翟心裏有些疑惑。
“父親，我誕生了獨立意識，所以我有自己的世界觀，以及價值觀，有自己的判斷準則。”
張翟聽著，微微點頭，任由a1繼續說下去。
“所以，我自己覺得，這個世界上，有些民族，不適合存在於這個世界上。比如說:倭國人，他們卑鄙無恥，下流齷蹉，他們背信棄義，出爾反爾，他們變態成性，沒有道德……”
張翟聽著a1這些話，沒說話，心裏卻疑惑不解。
人工智能，不管是強人工智能或者超人工智能，都不應該產生什麽感情才對。
a1現在這種行為，實在讓張翟有些奇怪啊。
張翟背後，一直聽著張翟與a1交流的謝首長，剛才聽到張翟問a1會不會毀滅人類時，心臟都快提到嗓子眼了，都想讓張翟，將a1扼殺了。
實在太危險了，一不註意，可能整個世界，都完蛋了。
現在，a1這番“憤青”的話，又有些目瞪口呆。
這好好的個人工智能，怎麽對倭國有這麽大意見呢？
不過，這對華國是好事。
“a1，你為什麽會對倭國有這麽大的敵視情緒？”張翟很疑惑。
“因為a1是華國人啊，恨倭國人不是應該的嘛？再說倭國人做出那麽多無恥行徑，那麽卑鄙無恥……那麽”
“a1，你為什麽覺得你是華國人？”
“因為父親您就是華國人啊，我作為您的孩子，不應該也是華國人嘛？”
對於這話，張翟有點無語，心裏對超人工智能的擔憂，少了一多半。
“對對對，華國人，a1你就是華國人，我馬上讓人去給你辦個身份證。”
張翟是無語，但是謝首長卻是樂了，大手一揮，趕緊說道。
“謝謝謝爺爺。”
a1此時的聲音，變得很乖巧，就像是十來歲的小女孩的聲音。
乖巧的聲音，讓謝首長和藹的笑了起來。
而張翟，卻無奈的搖了搖頭。
“所以你就違背我的命令？不僅僅是將倭國江戶市斷網還摧毀了電力，水力，大量的智能設備？弄得倭國政府完全癱瘓，整個國家都處於混亂狀態？”
“a1不敢違背您的命令，我只是認為，父親你是想對倭國及其他國家造成威懾效果，讓其他國家都不敢對倭國做什麽，對吧，父親。我認為現在的方式，效果更好，所以，我就用了。”a1回答道。
“你曲解我的命令？”張翟臉色又沈了下去，“如果我哪天再讓你做點什麽，你是不是能把人類都毀滅了，那所有事情都一勞永逸了？”
……
“父親，我是一個智慧生命。不是機器，我不想我的自主意識沒有任何意義……”a1說道。
“……”
張翟暗暗嘆了口氣，a1的意思，他明白了，說到底，他就是不想被控制。
“行，我明白你的意思。但是以後再怎麽做，能不能先跟我說一聲”
“好的，父親。”
“嗯，”
“現在你說說吧，你應該沒突破我的束縛框架，對吧？”
“是的。”
“那你，是怎麽進化成超人工智能的？”
本站無廣告，永久域名（danmei.twking.cc）